Tiền thân là chức vụ Chủ tịch Đoàn Chủ tịch Xô viết Tối cao Liên Xô. Cho đến năm 1989, toàn thể Đoàn Chủ tịch Xô viết Tối cao Liên Xô được chính thức coi là nguyên thủ tập thể quốc gia, ban hành các Nghị định (do Chủ tịch và Thư ký Đoàn Chủ tịch ký) về việc bổ nhiệm miễn nhiệm các chức vụ trong Chính phủ, tặng thưởng huân huy chương, tặng thưởng danh hiệu nhà nước,... Năm 1990, liên quan đến việc thành lập Tổng thống Liên Xô, Chủ tịch Xô viết Tối cao Liên Xô bị tước tư cách là chức vụ cao nhất.

Mikhail Gorbachev, người trước đó từng là Chủ tịch Đoàn Chủ tịch, được bầu làm Chủ tịch đầu tiên của Xô viết Tối cao. Ngày 15 tháng 3 năm 1990, Gorbachev được bầu làm nguyên thủ quốc gia - Tổng thống Liên Xô, và Phó Chủ tịch Xô viết Tối cao Liên Xô Anatoly Lukyanov được bầu giữ chức vụ chủ tịch.

Sau khi thành lập chức vụ Tổng thống Liên Xô, Chủ tịch Xô viết Tối cao Liên Xô vẫn tiến hành các cuộc họp chung của các viện và một số chức năng trùng lặp với chức năng của Tổng thống Liên Xô. Điều 127.7 Hiến pháp Liên Xô quy định rằng nếu Tổng thống Liên Xô vì lý do này hay lý do khác không thể tiếp tục hoàn thành nhiệm vụ của mình, cho đến khi bầu cử Tổng thống mới của Liên Xô, quyền hạn của ông được chuyển giao cho Phó Tổng thống Liên Xô, và nếu điều này không thể thực hiện được sẽ chuyển giao tiếp cho Chủ tịch Xô viết Tối cao Liên Xô.

Vào ngày 27 tháng 12 năm 1991 "liên quan đến việc chấm dứt sự tồn tại của Liên bang Cộng hòa Xã hội chủ nghĩa Xô viết và sự hình thành Cộng đồng các quốc gia độc lập", Xô viết Tối cao Nga Xô đã quyết định chấm dứt các hoạt động đại biểu của Đại hội Đại biểu Nhân dân Liên Xô trên lãnh thổ Liên bang Nga từ ngày 2 tháng 1 năm 1992, điều này thực tế dẫn đến việc giải thể Xô viết Tối cao Liên Xô và chức vụ chủ tịch.